Die älteste Peterskirche (von der heute nichts mehr zu sehen ist) geht bis in das Frühmittelalter zurück, und es gibt Vermutungen, wonach sie die älteste Kirche Wiens sein könnte (siehe Ruprechtskirche).

Die Kirche soll von Kaiser Karl dem Großen um 800 gegründet worden sein, was aber ca. fromme Legende sein dürfte. Jedenfalls wird 1137 eine Kirche des heiligen Petrus in Wien urkundlich erwähnt. Gegen Ende des 12. Jahrhunderts fiel die Kirche an das Schottenstift.

Die mittelalterliche Kirche war dreischiffig mit einer Apsis in dem Süden statt der sonst üblichen Ausrichtung nach Osten. Die ungewöhnliche Ausrichtung hat in der Fachwelt viele Diskussionen ausgelöst. Es wurde u.a. vermutet, die Kirche sei ein adaptierter Profanbau. Die Kirche war von Kramläden umgeben und in einem Anbau war die „Stadtguardia“, der Vorläufer der modernen Polizei, untergebracht. In dem Jahr 1661 brannte die Kirche ab und wurde notdürftig instand gesetzt. Der Beschluss, eine neue Kirche zu bauen, wurde allerdings erst 1676 mit der Übersiedelung der Erzbruderschaft der Allerheiligsten Dreifaltigkeit in Angriff genommen.

Um 1701 wurde mit dem Neubau begonnen. Ursprünglich war Gabriele Montani vorgesehen gewesen, für ihn sprang 1703 Johann Lukas von Hildebrandt ein. 1722 war der Bau größtenteils abgeschlossen. Die neue Kirche war der erste Kuppelbau des barocken Wien. Sie verfügt über eine sehr kompakte Form, einen ovalen Innenraum mit erstaunlich viel Platz und rechteckige Anbauten. Der Kuppelraum wurde hauptsächlich von Matthias Steinl gestaltet. Für die Freskenausstattung war ursprünglich Andrea Pozzo vorgesehen gewesen, dessen Ausmalungen wurden nach seinem Tod wieder entfernt, so dass 1713 Johann Michael Rottmayr ein mit einem völlig neuen Programm beginnen konnte. Der Hochaltar stammt von Antonio Galli-Bibiena (Aufbau) und Martino Altomonte (Altarbild). In dem Laufe der Jahre ist die Bemalung dunkler geworden, was dem Innenraum ein düsteres Aussehen verlieh. Seit 1998 wird die Kirche renoviert und auch die Bemalung wird ihre Farbenpracht und Helligkeit zurückerhalten.

Die Peterskirche befindet sich auf dem Petersplatz, unmittelbar neben dem Graben, kurz nach der Pestsäule. Dort durchschneidet eine Straße die Fußgängerzone und führt direkt zur Kirche. Die Peterskirche verschwindet fast zwischen den hohen Häusern, und man sieht sie erst, wenn man davorsteht.

Seit September 2004 ist die Renovierung abgeschlossen